Vector Quantization

도움받은 블로그

HuBERT의 예시를 들어보겠다.

여기서 여러 MFCCs 혹은 학습된 Encoder의 layer에서 나온 각각의 feature vector를 클러스터링을 통하여 각 카테고리들로 나누는 과정이 존재하는 것이 보이는가? 이 과정이 바로 Vector Quantization이라고 할 수 있겠다.
비슷한 특징을 갖는 각기 다른 feature vector를 클러스터로 묶고, 한 클러스터 안의 vector를 하나의 대표 벡터로 변환하는 과정이 바로 Vector Quantization인 것이다.